ในห้องทดลองของช่วงเริ่มต้นของการพัฒนา เราโดยทั่วไปมักตกเป็นเหยื่อของ กับดักการสาธิต. มันเป็นเสียงเรียกร้องทางปัญญาที่ทำให้ผลิตภัณฑ์ที่มีขนาดเล็กที่สุด (MVP) ทำงานได้อย่างสมบูรณ์แบบ เพราะถูกทดสอบกับตัวอย่าง 'ทองคำ' — คำถามที่น้ำหนักภายในของโมเดลภาษาและบริบทที่ค้นพบเข้ากันในช่วงเวลาที่หายากของโชคช่วย ผลิตภัณฑ์ที่มีขนาดเล็กที่สุด (MVP) ทำงานได้อย่างสมบูรณ์แบบ เพราะถูกทดสอบกับตัวอย่าง 'ทองคำ' — คำถามที่น้ำหนักภายในของโมเดลภาษาและบริบทที่ค้นพบเข้ากันในช่วงเวลาที่หายากของโชคช่วย

เพื่อเปลี่ยนจาก MVP เป็น ระบบที่ใช้งานได้จริง, เราต้องยอมรับความจริงอันยากลำบาก: RAG ไม่ใช่เทคนิคเพื่อให้แชทบอทดูฉลาดขึ้น มันเป็นแนวทางการออกแบบสถาปัตยกรรมอย่างเคร่งครัดในการเชื่อมโมเดลภาษาที่ไม่แน่นอนกับแหล่งข้อมูลภายนอกอย่างมีความรับผิดชอบและคาดการณ์ได้ ระบบที่น่าเชื่อถือจะพิสูจน์ตัวเองไม่ใช่ที่ความสามารถในการสรุปเอกสาร PDF ที่สมบูรณ์แบบ แต่ที่ความสามารถในการจัดการกับความยุ่งเหยิงของเอกสารที่สแกนมา ข้อความขัดแย้ง และความยุ่งเหยิงในปลายทางที่แท้จริงจากการสอบถามในโลกแห่งความเป็นจริง

ความรับผิดชอบด้านวิศวกรรม

• แหล่งข้อมูลหลัก: จัดการสายการนำข้อมูลกลับมาเป็นแหล่งข้อมูลความจริงหลัก และโมเดลภาษา (LLM) เป็นผู้ประมวลผลรอง
• การตรวจสอบทางสถิติ: เปลี่ยนจากความยืนยันตามเรื่องราว (มันทำงานได้แค่ครั้งเดียว!) เป็นการตรวจสอบทางสถิติในหลายกรณีเฉพาะที่ซับซ้อนหลายพันกรณี
• การล้มเหลวอย่างสง่างาม: ออกแบบให้เกิดการขาดหลักฐาน ระบบที่พูดว่า "ฉันไม่รู้" มีค่ามากกว่าระบบใด ๆ ที่เดาจากน้ำหนักที่เกิดจากภาพลวงตาอย่างไม่จำกัด